Masjid Quba telah siap dibina semula dalam tahun 1986 Masihi. Kerajaan Arab Saudi telah meminta Abdel-Wahed El-Wakil, seorang arkitek Mesir untuk membina semula Masjid Quba. Abdel Wahid asalnya hendak mengekalkan struktur masjid yang lama dan digabungkan dengan bangunan baru. Tetapi Kerajaan Arab Saudi berkeras untuk meruntuhkan bangunan Masjid yang lama.

Masjid Quba mempunyai dewan solat berbentuk segi empat, dengan sebahagian dewan solat ditempat di tingkat dua. Dewan solat disertakan dengan kawasan kediaman petugas masjid, pejabat masjid, bilik wuduk, kedai-kedai dan juga sebuah perpustakaan.

Terdapat 6 buah pintu masuk sebagai tambahan kepada pintu masuk utama di bahagian utara, selatan dan timur masjid ini. Masjid ini mempunyai empat menara, dengan satu menara disetiap penjuru dewan solat. Masjid ini mempunyai kawasan lapang yang boleh dilindungkan dengan bumbung yang boleh dibuka dan ditutup.